Toan mai thang đã tồn tại dưới một số hình thức trong hơn 1.000 năm,[4] ít nhất là từ thời nhà Tống (960–1279); cũng có báo cáo về một biến thể được gọi là "bạch toan mai thang" (白酸梅汤) trong thời nhà Nguyên (1271–1368). Công thức được sử dụng ngày nay được cho là đã được phát triển theo yêu cầu của vua Càn Long thời nhà Thanh vào đầu thế kỷ 18, vào thời điểm đó, nó lần đầu tiên được biết đến trong các triều đình, sau đó phổ biến trong dân gian khi một công dân Hà Bắc tạo ra và sản xuất thương hiệu Tín viễn trai (信远斋).[4] Đến những năm 1980, các công ty đã bắt đầu sử dụng các phương pháp và công nghệ để sản xuất hàng loạt toan mai thang.[4]